Noam Shazeer
概述
Noam Shazeer 是《Attention Is All You Need》论文的共同作者之一,Google Brain 研究员,后联合创立 Character.AI,是 Transformer 架构的核心贡献者之一。
关键内容
-
Transformer 贡献:作为第二作者参与《Attention Is All You Need》(NeurIPS 2017),提出完全基于注意力机制的序列建模架构,彻底取代 RNN 成为 NLP 统一框架。
-
Google Brain 时期:在 Google Brain 工作期间,与 Ashish Vaswani、Niki Parmar、Jakob Uszkoreit 等同事合作,探索去掉 RNN 仅用注意力的可能性,最终验证了"更快、更好、完全并行"的假设。
-
后续创业:离开 Google 后联合创立 Character.AI,将 Transformer 技术应用于对话式 AI 产品,推动大语言模型的商业化落地。
来源
- raw/articles/ai-papers/machine-learning/14_transformer_2017.md — Transformer 论文作者列表
相关
- Transformer 论文 — 第二作者
- Ashish Vaswani — 第一作者,Google Brain 同事
- Google Brain — 研究机构